Bài chi tiết:Chiến tranh Punic lần thứ hai

Rất lo lắng trước tình hình này nên khi Saguntum, một thành phố nhỏ ở Tây Ban Nha yêu cầu Roma trở thành đồng minh, La Mã đã không từ chối. Vài năm sau, Hannibal, một tướng trẻ 25 tuổi trở thành tổng chỉ huy quân Carthage ở Tây Ban Nha. Lúc đầu, Hannibal cho phép người Saguntum sử dụng các bến cảng rộng lớn để tránh xung đột với La Mã. Nhưng Saguntum với giúp đỡ của người đồng minh La Mã, bắt đầu chơi trò chính trị với các thành phố Tây Ban Nha khác. Bỏ qua những đe dọa trực tiếp từ La Mã, Hannibal tấn công và chiếm giữ Saguntum. La Mã cố gắng thu xếp vấn đề này bằng con đường ngoại giao. Họ yêu cầu Carthage cách chức Hannibal và đưa ông này đến Roma. Chiến tranh Punic lần 2 nổ ra năm 218 trước CN khi Carthage khước từ yêu cầu này. Nhưng lần này, La Mã phải đối mặt với một địch thủ đáng sợ. Trong thời gian sau cuộc chiến lần 1, Carthage đã tạo ra một đội quân hùng mạnh. Hannibal đã đưa đội quân này đi dọc châu Âu và tháng 9 năm 218, ông đưa quân Carthage vượt dãy Alpes bắt đầu cuộc xâm lược Ý. Dù mệt mỏi vì quãng đường vận động chiến, Hannibal vẫn ngay lập tức đập tan quân La Mã ở phía bắc Ý. Chiến thắng ngoạn mục này đã khiến nhiều chiến binh du mục Gaule gia nhập đoàn quân của Hannibal nâng tổng số quân của ông lên trên 50000. Chiến thắng của Hannibal trước người La Mã được đảm bảo bằng việc thuyết phục các đồng minh của La Mã và sáp nhập nhiều thành phố vào Carthage.

Người La Mã hiểu rằng họ không thể đánh bại Hannibal. Tuyệt vọng, La Mã trao quyền cho nhà độc tài Quintus Fabius Maximuss. Fabius ra lệnh tránh chiến tranh trực diện bằng mọi giá, chỉ đánh du kích cho tới khi quân Carthage suy yếu đủ để tấn công trực diện. Nhưng khi Hannibal hành quân tới Cannae (trận Cannae) năm 216 trước CN, Fabius đưa 1 đội quân 80000 người ra chống lại. Đội quân này ngay lập tức bị Hannibal tiêu diệt hoàn toàn, đây là thất bại lớn nhất Roma từng trải qua. Các đồng minh phía Nam Ý của La Mã chạy sang phía Hannibal, toàn bộ Sicilia trở thành đồng minh của Carthage. Thêm vào đó, vua Philippos V của Macedonia, người kiểm soát hầu hết lãnh địa Hy Lạp cũng ngả theo Hannibal và bắt đầu cuộc chiến tranh chống lại La Mã năm 215 trước CN. Tình hình gần như tuyệt vọng đối với La Mã. Fabius không còn dũng khí đối đầu với Hannibal. Hannibal đưa quân đội vòng quanh Ý mà không còn bất cứ sự chống cự nào. Tuy nhiên, Hannibal không có đủ lực lượng và trang bị để bao vây hay tấn công ồ ạt các thành phố như Roma. Tất cả những gì ông có thể làm là đi khắp các miền nông thôn Ý và tàn phá.

La Mã quyết định tấn công hậu phương của Hannibal. Biết rằng Hannibal phụ thuộc vào nguồn cung cấp nhân lực và vật lực từ Tây Ban Nha, La Mã trao cho Publius Cornelius Scipio (237-183 TCN), một thiên tài về chiến lược chức Thống đốc Tây Ban Nha, một hành động không hợp hiến vì vị tướng trẻ này chưa bao giờ là quan chấp chính. Scipio, sau này được gọi bằng cái tên Scipio Africanus vì chiến thắng của ông trước người Carthage trên đất Châu Phi, đã nhanh chóng chinh phục toàn bộ Tây Ban Nha. Đến lúc này, Hannibal bị mắc cạn trên đất Ý. Sau đó, Scipio đưa quân vào châu Phi và buộc người Carthage phải đề nghị Roma một hiệp ước hòa bình. Một phần của hiệp ước này là Hannibal phải rời khỏi bán đảo Ý. Hannibal là một trong những danh tướng vĩ đại nhất trong lịch sử thế giới. Trong suốt cuộc chiến tranh với La Mã, ông không hề thua một trận nào. Dù vậy ông vẫn buộc phải rút lui. Và dù thắng trong tất cả các trận đánh, Hannibal đã thua trong cuộc chiến tranh này. Khi Hannibal quay trở lại, người Carthage lấy lại tinh thần và thêm một lần nữa nổi dậy chống lại La Mã. Năm 202 TCN, Hannibal và Scipio giao chiến ở At Zama phía bắc châu Phi và tại đây Hannibal nếm chiến bại đầu tiên. Carthage bị đưa xuống thành một bang độc lập. La Mã lúc này kiểm soát toàn bộ miền tây Địa Trung Hải bao gồm cả khu vực Bắc Phi.

Cuộc chiến này mang đến cho La Mã những kinh nghiệm lịch sử. Họ đã phải đối mặt với những thất bại hiển nhiên trước một địch thủ hùng mạnh và cuối cùng đã chiến thắng những kẻ thù vượt trội này. Tính cách La Mã được nhìn nhận từ cuộc chiến tuyệt vọng này đã xuyên suốt phần còn lại của lịch sử đế chế. Chiến tranh Punic lần 2 đưa La Mã từ một quyền lực có tính khu vực trở thành một đế chế trên toàn thế giới. Với việc Philip V của Macedonia bắt tay với Hannibal tiến hành chiến tranh chống lại Roma, La Mã chuyển hướng chiến tranh về phía đông trước tiên xâm chiếm Macedonia và sau đó là các vương quốc Hi Lạp khác. Kết quả cuối cùng của chiến tranh Punic lần thứ hai là sự thống trị thế giới của La Mã.